Hoàng Đức Oanh sinh ngày 23 tháng 10 năm 1938 tại Hà Tây (nay là Hà Nội), Địa phận Hà Nội, sau đó được rửa tội lấy tên thánh là Micae. Hoàng Đức Oanh là con út trong gia đình có 9 người con, trong số các anh của ông có hai người là linh mục.[2] Người anh cả của Giám mục Oanh là linh mục Gioan Baotixita Hoàng Văn Minh, nguyên Bề trên tiên khởi của Tu Đoàn Naza Thủ Đức[3] và người anh thứ tám kế ông là Hilario Hoàng Đình Thiều, linh mục Bề trên đương kim của Tu đoàn Naza.[4]

Cậu bé Oanh bắt đầu theo con đường tu trì bằng việc nhập học Tiểu chủng viện Hà Nội từ năm 1952.[5] Sau Hiệp định Genève 1954, cậu cùng gia đình di cư vào miền Nam và tiếp tục theo học tại tiểu chủng viện Thánh Giuse Sài Gòn. Mãn tiểu chủng viện, vì là chủng sinh xuất sắc nên Hoàng Đức Oanh được chọn gửi đến Giáo hoàng Học viện Thánh Piô X Đà Lạt theo học các phân môn triết học và thần học từ năm 1960 và học tại đây cho đến năm 1969, tốt nghiệp với văn bằng cử nhân thần học.[6]